Alfred Jodl lahir di luar nikah dengan nama Alfred Josef Ferdinand Baumgärtler di Würzburg, Jerman, anak kepada seorang pegawai artileri tentera Kolonel Johannes Jodl dan Therese Baumgärtler, menggunakan nama keluarga Jodl apabila ibu bapanya berkahwin pada tahun 1899. Beliau mendapat pendidikan di Sekolah Kadet di Munich, dimana beliau lulus pada tahun 1910. Jeneral Ferdinand Jodl adalah adiknya. Ahli falsafah dan ahli psikologi Friedrich Jodl di Universiti Vienna adalah bapa saudaranya.[3]

Selepas persekolahan, Jodl menyertai tentera darat sebagai seorang pegawai artileri. Semasa Perang Dunia I beliau bertugas sebagai pegawai bateri di Barisan Barat pada tahun 1914-16, mendapat kecederaan dua kali. Pada tahun 1917 Jodl bertugas sementara di Barisan Timur sebelum kembali ke barat sebagai pegawai staf. Selepas perang Jodl kekal dalam angkatan tentera dan menyertai Reichswehr yang dihadkan oleh Versailles.[4]